¿Quién paga el precio? Benchmarking de inyección de prompts para agentes web
Descubre cómo un benchmark centrado en stakeholders revela vulnerabilidades en agentes web impulsados por IA. ¿Quién paga el precio de la inyección de prompts?
#ataques adversariales
Ataques Adversarios Multiobjetivo y Defensas Robustas para Resumen Continuo
Descubre cómo los ataques adversariales multiobjetivo comprometen la sumarización de datos y las defensas robustas para mantener la integridad en IA confiable.
Por qué el envenenamiento de corpus en RAG falla tras la recuperación
Descubre por qué los ataques de envenenamiento de corpus fallan en sistemas RAG reales con chunking y reranking. Conoce CRCP, un nuevo enfoque para ataques robustos. ¡Lee más!
Riesgo bajo presión: evaluación consciente del cómputo en robustez adversarial
Evalúa la robustez adversarial de LLMs con un enfoque en el costo computacional real. Curvas riesgo-cómputo y métricas clave.
Riesgo bajo presión: Robustez adversarial consciente del cómputo
Aprende cómo la evaluación basada en presión computacional (FLOPs) expone la verdadera robustez de los LLMs frente a ataques adversariales. Resultados sorprendentes.
Purificación Adversarial Acumulativa con Difusión en Modelos Multimodales
DiffCAP neutraliza ataques adversariales en modelos de visión-lenguaje. Descubre cómo mejora la seguridad.
Detección online de cambios y adaptación conforme en clasificadores de seguridad
Sistema online detecta cambios en clasificadores de seguridad con 86.6% de precisión. Adaptación conforme corrige errores. Descubre cómo mantener tus modelos IA seguros.
Dinámica de ataques adversariales en motores de búsqueda basados en LLM
¿Sabías que los ataques adversariales manipulan los resultados de búsqueda en LLM? Descubre el dilema del prisionero y cómo defenderte.
Optimización en dos etapas para eludir copyright en difusión
El método TS-LFO elude defensas de copyright en modelos de difusión con optimización latente en dos etapas, superando a DiffPure, GrIDPure e IMPRESS.
Manipulación en revisiones por pares con IA: nuevos riesgos
Un estudio revela que reescribir abstracts con IA aumenta las calificaciones en un 38%, amenazando la objetividad de las revisiones por pares.
Puerta trasera criptográfica para redes neuronales: bendición y maldición
Descubre cómo las puertas traseras criptográficas en redes neuronales permiten ataques invisibles y defensas robustas como watermarking y autenticación. Implementaciones post-cuánticas.
Lo que los ojos ven, los LLM ignoran: ataques adversariales textuales
Descubre cómo ataques adversariales tipográficos engañan a los sistemas de moderación con IA: contenido dañino invisible para LLM pero obvio para humanos.
Optimización Generativa Multimodal: Manipulación de Rankings en IA
Descubre cómo la Optimización Generativa Multimodal (MGEO) expone vulnerabilidades críticas en modelos de ranking de IA. Aprende sobre ataques a sistemas multimodales.
La trampa de la confianza: ataques de calibración para GNN
Los modelos de GNN calibrados son vulnerables a ataques adversariales. El marco UGCA revela cómo aumentar el error de calibración manteniendo la precisión. ¡Conócelo!
SS-TPT: Cómo proteger modelos de visión y lenguaje de ataques adversariales
Descubre cómo SS-TPT logra un equilibrio robustez-rendimiento usando estabilidad y adecuación para seleccionar las mejores vistas. Lee más.
Cómo la consistencia autoregresiva daña la alineación de seguridad
La consistencia autoregresiva hace superficial la alineación de seguridad. Aprende cómo ataques de inserción aleatoria la explotan y cómo defenderte.
Envenenamiento Secuencial de Datos en el Post-Entrenamiento de LLMs
Múltiples atacantes pueden envenenar datos en distintas etapas del post-entrenamiento de LLMs, revelando vulnerabilidades ocultas.
MultiTurnPSB: Seguridad en IA médica ante ataques multi-turno
Los chatbots médicos fallan hasta en un 80% ante ataques multi-turno. Descubre cómo MultiTurnPSB revela vulnerabilidades y las defensas con clasificadores.
Adversarial ML para LLMs: ¿sin avance real?
El Adversarial ML para LLMs no progresa: problemas vagos, complejos y difíciles de medir. Conoce las razones y el riesgo de una década perdida.
Ataques adversariales entre generaciones de LLMs: seguridad no monotónica
Descubre cómo los ataques adversariales entre generaciones de LLMs Gemma revelan que la seguridad no mejora de forma constante. Gemma 3 es más vulnerable que Gemma 2 y 4.